ระบบคอมพิวเตอร์ของเครื่องเมนเฟรมมีประสิทธิภาพเพียงพอที่จะรองรับผู้ใช้ได้หลายร้อยคนพร้อม ๆ กันซึ่งผู้ใช้เหล่านั้นอาจจะนั่งทำงานอยู่ใกล้เครื่องเมนเฟรมหรืออาจจะอยู่ที่อื่นซึ่งไกลออกไปก็ได้เครื่องเมนเฟรมจะเก็บโปรแกรมของผู้ใช้เหล่านั้นไว้ในหน่วยความจำหลักและมีการสับเปลี่ยนหรือสวิทซ์การทำงานระหว่างโปรแกรมต่าง ๆ เหล่านั้นอย่างรวดเร็วโดยที่ผู้ใช้จะไม่รู้สึกเลยว่ามีการสับเปลี่ยนการทำงานไปทำงานของคนอื่นอยู่ตลอดเวลาเนื่องจากคอมพิวเตอร์ทำงานได้เร็วกว่ามนุษย์มากหลักการที่เครื่องเมนเฟรมสามารถทำงานหลายโปรแกรมพร้อมๆกันนั้น เรียกว่า "มัลติโปรแกรมมิง" (multiprogramming)